AI Mirror — как технологията блокира човешкия потенциал

В своя роман от 1928 година „ Машината стопира “ Е. М. Форстър си показва разрушена Земя, където хората заемат изолирани капсули, облицовани с копчета, с цел да обслужват всяка тяхна потребност, от студени бани до литература, обвързвана с всевиждаща информационна машина. Още преди пандемията тази малко известна история се търгуваше измежду технолозите като пророческа визия за актуалния интернет. Цитат от него отваря новата книга на Шанън Валър, The AI ​​Mirror.

Валър е мъдрец на технологиите, която е прекарала по-голямата част от кариерата си в университета Санта Клара в Силициевата котловина, в последно време се реалокира в университета в Единбург. Първата й книга „ Технологии и добродетели “ (2016) беше окъпана в калифорнийско слънце. Той нежно утвърди уместността на „ нравственос на добродетелта “ – метафизичен подходи, датиращи от Аристотел, Конфуций и Буда, които се концентрират към човешките качества като храброст, морално въображение, почтеност и съпричастност – в научаването по какъв начин да просперираме в днешната софтуерна епоха.

The AI ​​Mirror уголемява този мотив с незабавен нов апел към, съгласно подзаглавието на книгата, „ възвръщане на нашето човечество в ерата на машинното мислене “. Без награди за съмнение какво се е трансформирало: стартирането на отворения за хора чатбот на OpenAI, ChatGPT. Новата книга на Валор е измежду десетките, оповестени тази година, борейки се със свят, в който наподобява, че литературният бутон на Форстър е станал действителност. AI Mirror се откроява със своето изобретателно, кристално ясно ревю на същинската опасност от AI.

Авторът ни приканва да признаем, че ChatGPT и сходни технологии надалеч не са слугини на гигантски разсъдък. от по този начин наречените огромни езикови модели (LLM) са просто „ великански огледала, направени от код, основани да употребяват нашите думи, нашите решения, нашето изкуство . . . след това ги отразете назад към нас ”. Колкото и действителни да наподобяват, бъркането им с началото на Изкуствен общ разсъдък – AGI, т.е. машинно чувство – е неправилно, тъй като „ тези огледала не знаят повече за претърпяното прекарване на мислене и усеща, в сравнение с огледалата в нашата спалня знаят нашите вътрешни болки и болки ”.

Валър признава, че нейната огледална метафора е близка до тази на подражаване на папагал — прочут прийом да подмами хората да имат вяра, че схващат повече, в сравнение с схващат.

ИИ ще изложи бъдещето ни на заплаха, твърди Валор, само че не по метода, по който „ западните медии и политическа фикс идея ” с AGI си показа от стартирането на ChatGPT през ноември 2022 година Тези, които се тормозят, че съзнателните машини подчиняват хората и постановат извънземна и враждебна ценностна система на бъдещите генерации, пропущат смисъла: AI е изработен по наш облик и отразява преобладаващата ценностна система на през днешния ден. Това, за което би трябвало да се тревожим, е по какъв начин ИИ блокира способността ни да преоткриваме полезностите си, „ пречейки ни да знаем по какъв начин въобще да създадем бъдеще “.

Ценностите на нашето богато постиндустриално общество ни доведоха „ до сегашните ни върхове на научна досетливост “, само че и до „ ръба на планетарното опустошаване “. Колкото повече власт даваме на машини, които не могат да вършат нищо друго, с изключение на да отразяват назад тези полезности, толкоз по-малко власт имаме да прилагаме личните си човешки качества и практическа мъдрост (това, което Аристотел назовава phronesis) към проблемите, пред които сме изправени.

Валър признава, че нейната огледална метафора е близка до тази на мимикриращия папагал — прочут с това, че може да подмами хората да повярват, че схващат повече, в сравнение с схващат — употребена в към този момент скандалната академична публикация от 2021 година за LLMs, „ За заплахите от стохастичните папагали “, която провокира дискусия, която коства работата на двама от създателите им в екипа по нравственос в Гугъл. Той също по този начин означи началото на смяна в промишлеността и държавното управление, надалеч от включването на етиката - и етиците - в техните тактики за разпръскване на публичния боязън по отношение на заплахите от ИИ. Самата Валър беше едвам след двугодишна изследователска позиция в Гугъл по това време.

Обществената политика в този момент е фокусирана върху сигурността на изкуствения разсъдък и някои вътрешни хора приказват за „ X-Risk “ – екзистенциален риск — на AGI като неотложна опасност като изменението на климата. Това, написа Валор, е „ фикция за огледало “, която прекомерно елементарно се слага в услуга на тези, които желаят да отсрочат действието против „ действителните и непосредствени екзистенциални закани “ на затоплящата се планета.

Ключът към „ Човешкият и планетарен подем “, съгласно Валор, е да се признае, че ние, хората, сме тези с креативния потенциал да пренасочваме курса на технологиите. Подобно на новаторската книга на Шошана Зубоф от 2018 година, решенията, които Валор предлага, наподобяват слаби в съпоставяне със заканите, които тя толкоз красноречиво излага. Както при Zuboff, ще бъде оставено на други да измислят по какъв начин да поемат идеята на Vallor.

Неотложността, с която Vallor декларира своя случай, не е съпоставена с никаква радикална стратегия за деяние или самоуверено предизвикателство към одобрени политически и икономическа мощност. Но може би това е смисълът: с приказките си за рационални машини и изгубване на хората, X-Riskers са тези, които се оголват пред обвиняванията в нервност. Нашата работа е да противодействаме с премерена и човешка реакция.

Огледалото за изкуствен интелект: Как да възвърнем нашата човещина в ерата на машинното мислене от Шанън Валър OUP £22,99, 272 страници

Присъединете се към нашата онлайн група за книги във Фейсбук на и се абонирайте за нашия подкаст, където и да слушате